Jeneral Tan Sri Raja Mohamed Affandi terlibat secara langsung dalam Insurgensi Kedua Tanah Melayu semasa zaman mudanya sebagai pegawai tentera. Beliau memimpin unitnya sebagai Ketua Platun dan kemudian sebagai Ketua Kompeni yang menentang pengganas komunis. Beliau meneruskan kerjaya tenteranya sebagai Pembantu Ketenteraan kepada Timbalan Panglima Tentera Darat, Ketua Jurulatih di Pusat Latihan Asas Tentera Darat (PUSASDA), Pegawai Memerintah Batalion Ke-18 Rejimen Askar Melayu DiRaja (18 RAMD), Pegawai Staf 1 Bahagian Keselamatan Negara, BKN,(sekarang Majlis Keselamatan Negara Malaysia), Pegawai Staf 1 Tadbir di Cawangan Sumber Manusia Tentera Darat, Ketua Staf Markas 3 Divisyen, Assisten Ketua Staf Perancangan dan Pembangunan serta Panglima 2 Divisyen.[1]

Beliau telah dinaikkan pangkat ke Leftenan Jeneral pada 2 Jun 2008 dan memegang jawatan Panglima Medan Tentera Darat. Pada 31 Oktober 2009, beliau ditugaskan sebagai Ketua Staf Markas Angkatan Tentera Malaysia. Beliau kemudian dinaikkan pangkat ke Jeneral pada 15 Jun 2013 dan pada masa yang sama memegang jawatan Panglima Tentera Darat (PTD).[1]

Dengan pengalaman luasnya dalam pelbagai jawatan Pemerintahan dan Pegawai Staf, beliau telah diberi kepercayaan untuk memegang jawatan Panglima Angkatan Tentera (PAT) yang Ke-19 pada tanggal 16 Disember 2016, menggantikan Jeneral Zulkifeli Mohd Zain yang bersara daripada Angkatan Tentera.[3]